#управление кэшем22.06.2025
Nano-vLLM: Легковесная Python-реализация vLLM с открытым исходным кодом от команды DeepSeek
Исследователи DeepSeek выпустили nano-vLLM — компактную и эффективную Python-реализацию движка vLLM, сочетающую простоту и производительность для вывода LLM.